Learning Query Encoders Can Be Hard Even When Vector Retrieval Is Geometrically Easy
学习查询编码器可能很难，即使向量检索几何上容易
🧭 向量检索 · 查询编码器可学性
Stanford University · Amazon AWS · Tel Aviv University
证明冻结文档索引几何容量充足时，查询编码器学习仍存在统计查询下指数级困难
📌 工作参考价值（4 点）
- 双塔召回（电商/search/推荐）中，上线新 query encoder 前先算冻结 doc index 的 oracle recall：用 ground-truth query embedding 或暴力 kNN 可达召回作为上界，定位瓶颈在文档几何还是 query 编码器；若 gap 很大，优先改进 query 侧训练信号而非替换向量库。
- 论文证明仅靠聚合统计的 query encoder 学习可能指数级困难，提示实践不能只堆数据/加负样本量；可尝试更细粒度的监督（hard negatives、teacher distillation、pairwise/listwise）或引入交互式打分头来辅助单向量召回。
- 若召回明显低于索引几何容量，可对 query 侧做诊断：线性 probe / 小网络能否逼近最好召回；如果简单模型也差，说明训练目标或分布不匹配，考虑生成合成 query-doc 对、用 LLM 扩展查询意图。
- RAG 场景同样适用：先测 frozen corpus 的检索上界，避免把 query encoder 问题误判为文档切分或 embedding 模型问题。